Thái Sử Từ xuất hiện trong tiểu thuyết Tam Quốc diễn nghĩa từ hồi 11 đến hồi 53. Những sự kiện nổi bật gắn với hoạt động của ông là cứu Khổng Dung, đánh nhau với Tôn Sách (hồi 15).

Việc Thái Sử Từ bắn tên trúng tay người chửi mắng quân Tôn Sách được La Quán Trung mô tả là một viên tướng của Nghiêm Bạch Hổ - người tranh chấp Giang Đông với Tôn Sách. Trong tiểu thuyết, viên tỳ tướng này cầm thanh ván và bị Thái Sử Từ bắn tên trúng tay dính chặt vào thanh ván.

Cái chết của ông được hư cấu về thời gian. Theo đó, Thái Sử Từ mất năm 209 sau trận Xích Bích (cũng được ghi là "41 tuổi"), khi theo Tôn Quyền đánh Hợp Phì, bị tướng của Tào Tháo là Trương Liêu đánh bại – ông bị trúng tên và qua đời. Trên thực tế, Thái Sử Từ đã mất năm 206 trước trận Xích Bích.